1
課程總覽:生成式 AI 時代的不確定性
PolyU COMP5511Lecture 5
00:04

第 5 課標誌著 COMP5511 的重大轉變。我們正離開古典運算的決定性邏輯與早期分類模型的監督式確定性,進入 生成式 AI 的機率核心。在本課堂中,我們探討為何現代 AI 模型輸出的並非「事實」,而是 機率分佈,並揭示讓大型語言模型能創作詩歌、擴散模型能從雜訊中繪製圖像的機制。

1. 典範轉移:從邏輯到機率

  • 超越 IF-THEN:從僵硬的規則轉向靈活的統計似然。
  • 確定性的終結:理解為何 GenAI 的結果本質上具有 非決定性 是刻意為之。
  • 以機率為工具:「生成式 AI 時代」如何將 不確定性視為一種特性 以促進創造力,而非視為需要修正的錯誤。

2. 創造的機率引擎

生成式 AI 依賴從高維度機率空間中進行取樣。無論是生成文字或圖像,模型都透過駕馭不確定性來產出新穎內容:

  • 大型語言模型(LLMs):預測下一個 token 並非單一選擇,而是作為一個 可能性的分佈
  • 擴散模型:從混亂的 高斯雜訊
  • 取樣過程:如何運用隨機性來避免重複且「機械化」的輸出。

3. 處於不可預測世界中的智慧體

自主智慧體必須在「開放世界」中導航,其中每個行動都伴隨著一定程度的未知風險與報酬。

幻覺的取捨
純決定性的模型雖然安全,但缺乏原創思考。透過擁抱不確定性,我們促進了創造力,但同時也引入了 幻覺的風險——即模型自信地生成看似合理但錯誤的資訊。
概念性取樣邏輯
1
Define functionGenerate_Response(Prompt,Temperature):
2
Calculateprobability distribution for all possible next tokens;
3
Adjust distribution based on Temperature(Higher = more diverse, Lower = more focused);
4
Select next token using Weighted Random Choice;
5
Repeat until completion.
Probabilistic Modeling
Modern AI views the world through the lens of statistics rather than binary truths.
Gallery Image